Sau khi Nhai Đình bị thất thủ, Gia Cát Lượng bị mất bàn đạp tấn công, lỡ mất cơ hội đánh chiếm Lũng Hữu, đại quân Thục không thể tiến nữa buộc phải lui về Hán Trung. Khi đó Gia Cát Lượng không còn quân, một mình ngồi trên thành mở toang cửa gảy đàn để dọa Tư Mã Ý rút quân.
Tháng 12 năm 228, nhân cơ hội Lục Tốn của Đông Ngô đánh bại quân của Tào Hưu ở Thạch Bình, Gia Cát Lượng liền tổ chức cuộc Bắc phạt lần thứ hai. Trước khi xuất chinh, ông dâng lên bản Hậu xuất sư biểu, thể hiện quyết tâm hết lòng hết sức của Gia Cát Lượng vì nhà Thục Hán mặc dù việc thành bại của Bắc phạt bản thân ông không thể định đoạt. Bài biểu có hai câu nói nổi tiếng sau này đã trở thành biểu tượng cho tấm lòng trung thành của Gia Cát Lượng với nhà Thục Hán nói riêng và của các bậc trung thần với triều đình phong kiến nói chung: “Cúc cung tận tụy, đến chết mới thôi.”
Gia Cát Lượng quyết định tiến quân theo đường Trần Thương. Tuy nhiên, đại tướng Ngụy là Tào Chân đã đoán trước được Gia Cát Lượng lần sau đến đánh sẽ đi đường này, và giao cho Hác Chiêu tăng cường phòng thủ ải Trần Thương. Gia Cát Lượng bị bất ngờ trước sự phòng thủ kiên cố của quân Ngụy.
Dụ hàng Hác Chiêu không được, Gia Cát quyết tâm đánh thành. Thế nhưng cửa ải rất vững chắc, trong suốt 20 ngày, quân Thục với quân số lên đến 40.000 - 50.000 vẫn không thể công phá được. Hác Chiêu chỉ với 1000 quân đã giữ vững được đến khi viện binh của nhà Ngụy tới cứu.
Trương Hợp dự đoán rằng chỉ cần nghe tin mình đến, Gia Cát Lượng sẽ rút quân, và quả thực quân Thục rút lui trước khi viện binh của Trương Hợp đến Trần Thương. Tiểu tướng trong ải Trần Thương là Vương Song mở cửa đuổi theo quân Thục, bị phục binh bắn chết.
Mùa xuân năm 229, Gia Cát Lượng phái Trần Thức đi đánh các vùng xa xôi ở Tây Bắc của nhà Ngụy. Tướng Ngụy Quách Hoài dẫn binh đối địch, nghe tin đại quân của Thục sắp đến thì rút lui. Trần Thức đánh lấy được hai quận là Vũ Đô và Dương Bình.
Vương Lãng lúc này làm quân sư cho Tào Chân và Quách Hoài, đấu khẩu với Gia Cát Lượng trước trận, bị mắng đến uất quá từ trên ngựa ngã lăn xuống đất chết.
Gia Cát Lượng chiếm được hai quận liền thu quân, báo tin thắng trận, được Hậu chủ phục chức Thừa Tướng.
